StateM: Reaching 95.3% Raw Accuracy, or a \$15 Frontier Run, on Terminal-Bench 2.1 via Harness Scaling
StateM:用 Harness Scaling 在 Terminal-Bench 2.1 达 95.3% / $15 前沿运行
🧭 Agent harness 扩展与状态机执行控制 ★ 深度解读
StateM 用状态机 runbook 外部化执行控制,不改权重,Terminal-Bench 2.1 达 95.28%,DeepSeek $15 达 88.8%
📌 工作参考价值(4 点)
- 将长流程 Agent(如生成式推荐、商品投放、数据分析 pipeline)编码为 YAML 状态机 runbook,每个阶段设 exit checks(离线评估分、数据完整性检查、配置校验),可显著减少 agent 提前退出或跳过必要步骤。
- 采用“状态即上下文与契约边界”设计:进入新阶段时刷新 phase-local 指令与进度摘要,避免长轨迹导致控制信号稀释;离开阶段必须通过可执行 command/predicate 校验,而不是 agent 自述完成。适合生成-验证-修复-发布这类闭环。
- 建立失败驱动的 harness 迭代流程:把每次失败归类为缺失上下文、无效转换、弱检查、提前交接、恢复失败等,将通用修复固化为 runbook 版本,不改模型权重。这能把重复踩过的坑沉淀为可执行约束,并保持模型不变。
- 跨模型迁移时,同一模型家族可冻结 runbook 直接复用;跨 provider 需按新模型适配 practices,但可保留 runbook 结构与开发原则。可以尝试用便宜模型 + 定制 harness 逼近昂贵模型,降低推理成本。